Мы одержимы идеей Скайнета. Нам рисуют картины восстания машин, и этот кинематографичный страх — удобная ширма, за которой прячется настоящая, куда более тихая и системная угроза. И эта угроза разворачивается не в будущем, а прямо сейчас.
Фундаментальная ошибка в наших рассуждениях в том, что мы ждем одного большого события, «судного дня». А реальный риск — это медленная, незаметная эрозия нашего общества, происходящая под аплодисменты прогрессу.
1. Временной лаг: Прибыль сейчас, последствия — потом.
Технологические революции всегда работают по одной схеме: инноваторы, одержимые целью доминировать на рынке, внедряют технологию с бешеной скоростью. Их структура — корпорация — создана для одной цели: извлечения прибыли в настоящем моменте. Рынок не умеет «оценивать» будущие социальные издержки. Он видит только квартальный отчет.
А общество — сложная, инертная система — поглощает и осмысляет последствия десятилетиями. Когда мы наконец поймем полный эффект от внедрения ИИ, «архитекторы» этой системы уже давно получат свои сверхприбыли и отойдут от дел. Мы останемся разбирать последствия в одиночку.